Произошедший 30 августа сбой в работе австралийского дата-центра привёл к проблемам в работе с сервисами Azure, API, базами данных, а также облачным ПО. Пользователи более суток не имели доступа к Azure, сервисам Microsoft 365 и Power Platform. Как сообщает Network World, в Microsoft обвиняют в произошедшем недостаток персонала в ЦОД и неисправную систему автоматики.

По данным экспертов компании, после падения напряжения в сети на юго-востоке страны отключилась часть охлаждающих систем в одном из ЦОД. Поскольку охлаждение не работало должным образом, рост температуры в машинных залах привёл к автоматическому отключению некоторого оборудования для сохранения инфраструктуры и данных.

При этом в компании подчеркнули, что системы охлаждения можно было бы заново включить вручную, окажись для этого достаточно персонала в ЦОД. С учётом размеров кампуса и небольшого числа сотрудников ночной смены людей оказалось недостаточно для своевременного восстановления работоспособности. В компании подчеркнули, что временно увеличили команду с трёх до семи человек, пока не выяснили причины проблем и не приняли необходимые меры для их устранения.

Источник изображения: Microsoft

В Microsoft добавили, что компания работает над масштабными реформами, включая совершенствование системы автоматизации ЦОД для восстановления работоспособности в случае повторения инцидентов, в частности, связанных с перепадами напряжения. Поэтому ведётся оценка загруженности серверов, чтобы выяснить, какие именно системы охлаждения нужно «оживить» в первую очередь.

В последние месяцы сбои в работе сервисов Microsoft уже случались, в первую очередь связанные с нарушением доступа к Microsoft 365. Например, в июле пострадали OneDrive для бизнеса и SharePoint Online, а месяцем ранее с проблемами на восемь часов столкнулись пользователи Outlook Web, Teams, OneDrive для бизнеса и SharePoint. А в начале года наблюдались глобальные сбои в работе сервисов компании.

Корпорация Microsoft открыла доступ к инстансам ND H100 v5 в облаке Azure. Эти масштабируемые виртуальные машины предназначены для решения сложных задач, связанных с ИИ и большими языковыми моделями.

В основу ND H100 v5 положены NVIDIA H100: восемь таких ускорителей объединены посредством NVSwitch и NVLink 4.0. Возможно масштабирование до тысяч ускорителей при помощи сети на базе NVIDIA Quantum-2 InfiniBand с пропускной способностью до 400 Гбит/с в расчёте на ускоритель (до 3,2 Тбит/с на виртуальную машину). В составе ND H100 v5 применяются процессоры Intel Xeon Sapphire Rapids, обеспечивающие поддержку PCIe 5.0 и DDR5-4800.

Источник изображения: Microsoft

Отмечается, что инстансы ND H100 v5 являются одними из самых мощных вычислительных решений, которые Microsoft предлагала до сих пор. Они доступны в регионах Azure на востоке и западе США. Заказы на ND H100 v5 принимаются уже сейчас, а к началу 2024 года Microsoft обещает сделать доступными для клиентов «сотни тысяч» ускорителей NVIDIA H100.

Microsoft подчеркнула в квартальном отчёте для инвесторов важность обеспеченности достаточным количеством ускорителей вычислений для стабильной работы облачных сервисов искусственного интеллекта (ИИ). Компания добавила уровень обеспеченности GPU в перечень факторов риска сбоев, с которым она может столкнуться, если не будет иметь надлежащую инфраструктуру.

Этот факт отражает растущий спрос ведущих технологических компаний на ИИ-ускорители, необходимые для предоставления доступа к ИИ-сервисам небольшим предприятиям.

Microsoft увеличила объём капвложений в облачные системы в IV квартале 2023 финансового года, включая расходы на ускорители вычислений, и планирует наращивать их в дальнейшем, стремясь удовлетворить растущий спрос на облачные сервисы искусственного интеллекта (ИИ).

Источник изображения: NVIDIA

«Наши центры обработки данных зависят от наличия разрешённой и пригодной для строительства земли, предсказуемых поставок энергии, сетевых материалов и серверов, включая ускорители вычислений (GPU) и другие компоненты», — указано в квартальном отчёте Microsoft. До этого GPU не упоминались в таком разрезе в предыдущих годовых отчётах Microsoft. Также нет упоминания GPU в таком смысле в недавних годовых отчётах других крупных технологических компаний, таких как Alphabet, отметил ресурс CNBC.

В рамках партнёрства с Microsoft компания OpenAI использует облако Azure для выполнения вычислений для ИИ-чат-бота ChatGPT и различных ИИ-моделей. Microsoft также начала использовать ИИ-модели OpenAI для улучшения с помощью генеративного ИИ своих продуктов, таких как приложения Outlook и Word, а также поисковая система Bing. Это повлекло за собой рост потребности компании в ИИ-ускорителях. Чтобы обеспечить в полной мере своих клиентов вычислительными ресурсами, Microsoft подписала соглашение о сотрудничестве с CoreWeave об использовании его оборудования для обработки своих ИИ-нагрузок.

Стремясь удовлетворить ожидаемый спрос на генеративный ИИ, компания Microsoft увеличила капвложения в IV квартале 2023 финансового года до $10,7 млрд с $7,8 млрд в предыдущем квартале, пишет Data Center Dynamics (DCD). Капвложения Google во II квартале 2023 года составили $6,89 млрд, что, впрочем, ниже первоначальных прогнозов аналитиков, ожидавших около $7,9 млрд. Это связано с замедлением строительства офисов и задержками «некоторых проектов строительства ЦОД», отметил DCD.

Как сообщает Microsoft значительные средства были вложены в дата-центры, вычислительную инфраструктуру и сети. По словам компании, капвложений с каждым кварталом будут увеличиваться на протяжении всего 2024 финансового года. «Ускорение действительно довольно значительное, — отметила финдиректор Эми Худ (Amy Hood) в квартальном отчёте. — Это касается как ЦОД, так и CPU с GPU, а также сетевого оборудования». Худ добавила, что компания направляет средства на увеличение ёмкости для «обычных рабочих нагрузок Azure, а также некоторых рабочих нагрузок ИИ».

Источник изображения: Microsoft

Вложив миллиарды долларов в OpenAI, Microsoft стала единственным облачным провайдером стартапа, но вместе с тем, как и другие гиперскейлеры, стремится получить достаточное количество ускорителей NVIDIA. Ранее она подписала соглашение о сотрудничестве с CoreWeave об использовании его мощностей для обработки ИИ-нагрузок своих клиентов. По слухам, аналогичное соглашение Microsoft имеет и с Lambda. А до этого она обсуждала совместное использование ускорителей с Oracle, поскольку NVIDIA, похоже, предпочитает отдавать новейшие продукты тем компаниям, которые не пытаются разработать собственные ИИ-ускорители.

«Главная задача — быть в состоянии активно удовлетворять кривую спроса», — заявила Худ. Возможность увеличения капвложений обеспечивается ростом доходов: Microsoft сообщает об увеличении выручки за квартал на 8 % год к году до $56,2 млрд. Продажи облака Azure выросли на 27 %. Компания отметила, что около одного п.п. роста приходится на ИИ, и в следующем квартале, как ожидается, рост ИИ составит 2 п.п. При этом Microsoft не предоставляет финансовые данные по Azure. Известно лишь, что выручка подразделения Intelligent Cloud, куда входит Azure, составила в минувшем квартале $24 млрд.

Источник изображения: Google

Google также заявила, что инвестирует значительные средства в ЦОД и ИИ-инфраструктуру. «Самая большая часть расходов пришлась на серверы, что включало значительное увеличение наших инвестиций в ИИ-вычисления», — сообщила в квартальном отчёте Рут Порат (Ruth Porat) финансовый директор холдинга Alphabet, куда входит Google. По словам Порат, «уровни инвестиций в техническую инфраструктуру [вырастут] во II половине 2023 года и продолжат расти в 2024 году», что позволит наверстать медленный старт. Компания будет «инвестиировать в GPU и TPU, а также в мощности ЦОД».

В свою очередь, глава Alphabet Сундар Пичаи (Sundar Pichai) заявил, что ИИ-инфраструктура компании является ведущей платформой для обучения и обслуживания моделей генеративного ИИ. Более 70 % компаний-единорогов в этой области являются клиентами Google Cloud, включая Cohere, Jasper, Typeface и т.д. Также компания, по его словам предлагает, самые широкие возможности ИИ-суперкомпьютинга на базе TPU и ускорителей NVIDIA. Подразделение Google Cloud сообщило о 28-% увеличении продаж во II квартале (до $8 млрд) в годовом исчислении и прибыли в размере $395 млн.

Корпорация Microsoft отчиталась о работе в последней четверти и 2023 финансовом году в целом, который был закрыт 30 июня. Подразделение Intelligent Cloud, в которое входят облачные сервисы Azure, а также Windows Server, SQL Server, GitHub, Nuance и Visual Studio, продолжает демонстрировать рост.

Общая квартальная выручка Microsoft составила $56,2 млрд, что приблизительно на 8 % больше по сравнению с прошлогодним результатом. Чистая прибыль при этом увеличилась на 20 % — до $20,1 млрд. Прибыль в пересчёте на одну акцию зафиксирована на уровне $2,69 — плюс 21 % по сравнению с IV кварталом 2022 финансового года.

Источник изображения: Microsoft

В подразделении Intelligent Cloud квартальная выручка равна $24,0 млрд. Это на 15 % больше прошлогоднего результата, когда показатель оценивался в $20,8 млрд. Говорится, что продажи серверных продуктов и облачных услуг поднялись на 17 % по сравнению с последним кварталом 2022 финансового года.

По итогам закрытого года в целом Microsoft получила $211,9 млрд выручки, что на 7 % больше в годовом исчислении. При этом чистая прибыль незначительно сократилась — с $72,7 млрд до $72,4 млрд. Группа Intelligent Cloud показала выручку в размере $87,9 млрд и операционную прибыль на уровне $37,9 млрд. Для сравнения: годом ранее эти показатели равнялись $75,0 млрд и $33,2 млрд.

Развитию облачного бизнеса Microsoft способствует генеративный ИИ. Так, служба Azure OpenAI, которая позволяет предприятиям получать доступ к большой языковой модели OpenAI, теперь имеет более 11 тыс. клиентов по сравнению с 4500 тремя месяцами ранее. И всё же темпы развития облачного направления замедлились по сравнению с показателями, наблюдавшимися во время пика пандемии COVID-19.

Обнародованные на прошлой неделе данные о взломе китайскими хакерами ряда учётных записей электронной почты правительства США указывают на то, что проблема намного серьёзнее, чем предполагалось изначально, говорится в исследовании американского стартапа по облачной безопасности Wiz Inc., о котором сообщил ресурс SiliconANGLE.

Как утверждают исследователи, последствия взлома могут оказаться столь же разрушительными и далеко идущими, как атаки в цепочке поставок SolarWinds. Ранее Microsoft сообщила, что атаку произвели китайские хакеры из группировки Storm-0558, а также рассказала о действиях злоумышленников в своей облачной сети и сервисах Azure, в частности о том, что при атаке использовались скомпрометированные ключи шифрования для онлайн-служб электронной почты Microsoft Exchange.

Источник изображения: Wiz

Однако, по мнению экспертов, Microsoft предоставила неполную информацию. «Злоумышленник смог получить новые токены доступа, воспользовавшись ранее выпущенными из-за ошибок в архитектуре», — говорится в отчёте Wiz. Как сообщается, эти недоработки уже были устранены. Токены использовались для доступа к электронной почте служб Outlook Web Access и Outlook.com. Однако позднее выяснилось, что ими можно было воспользоваться для получения доступа к различным службам, использующим Azure Active Directory (AAD) для аутентификации.

Wiz посоветовал клиентам определить все потенциально уязвимые приложения с помощью поиска поддельных ключей, обновить все экземпляры Azure SDK и убедиться, что они не используют кешированную версию каких-либо сертификатов Microsoft OpenID. Microsoft заявила, что утверждения Wiz не подтверждаются никакими доказательствами. Тем не менее, Wiz считает, что взлом серьёзно подорвал доверие к Microsoft миллионов пользователей, которые использовали службы аутентификации Microsoft и сервис Microsoft OpenID для входа в свои учётные записи.

Крупные облачные провайдеры давно осознали пользу, которую могут принести DPU и активно применяют подобного рода решения. В частности, AWS давно использует платформу Nitro, Google разработала DPU при поддержке Intel, а Microsoft активно готовит к запуску собственную платформу под названием MANA.

Основой MANA является кастомный чип SoC, разработанный специально с учётом обеспечения высокой пропускной способности, стабильности подключения и низкой латентности. DPU на его основе обеспечивает пропускную способность до 200 Гбит/с, а также поддерживает подключение удалённого хранилища данных на скоростях до 10 Гбайт/с при производительности до 400 тыс. IOPS. Отметим, что ранее AMD заявила о появлении DPU Pensando в облаке Azure, а сама Microsoft в прошлом году поглотила разработчика DPU Fungible.

Изображение: Microsoft

MANA является частью услуги Azure Boost и берёт на себя управление всеми аспектами виртуализации, включая работу с сетью и данными, а также функции управления хост-системой. Перенос этих функций на отдельную платформу не просто улучшает производительность и масштабируемость, но и обеспечивает дополнительный слой безопасности. MANA уже задействованы в инфраструктуре Azure и подтвердили высочайшую скорость при работе с внешними хранилищами данных для инстансов Ebsv5, а также отличную пропускную способность и низкую латентность сетевого канала для всех инстансов семейств Ev5 и Dv5.

MANA поддерживает Windows и Linux, а для более тонкой работы с аппаратной частью ускорителя можно задействовать DPDK. В части информационной безопасности следует отметить наличие криптоядра, соответствующего стандартам FIPS 140. В настоящее время сервис Azure Boost доступен в качестве превью. Компания приглашает к сотрудничеству партнёров и клиентов с высокими запросами к характеристикам сетевого канала и хранилищ.

Компания Microsoft анонсировала на мероприятии Inspire 2023 ряд новых технологий искусственного интеллекта для облачной платформы Azure. Как отметил ресурс TechCrunch, наиболее «примечательной» из них является векторный поиск Vector Search.

Vector Search — это метод поиска информации в различных типах данных, включая изображения, аудио, текст, видео и многое другое. Он определяет результаты поиска на основе сходства числовых представлений данных. В отличие от подбора ключевых слов, Vector Search сравнивает векторное представление запроса и содержимого, чтобы найти релевантные результаты для пользователей.

Источник изображений: Microsoft

Доступный в режиме превью через Azure Cognitive Search, Vector Search использует с целью ускорения поиска машинное обучение для определения значения и контекста неструктурированных данных, включая изображения и текст. Microsoft отметила, что Vector Search можно использовать в приложениях и сервисах для генерации персонализированных ответов на естественном языке, предоставления рекомендаций по продуктам и выявления закономерностей данных.

«Vector Search интегрированный с Azure AI, позволяет клиентам создавать приложения на основе чата с поддержкой поиска, преобразовывать изображения в векторные представления с помощью Azure AI Vision [и] извлекать соответствующую информацию из больших наборов данных, чтобы автоматизировать процессы, — пишет компания в блоге. — Интеграция Vector Search плавно распространяется на другие возможности Azure Cognitive Search».

Также был представлен сервис Document Generative AI на основе Azure AI Document Intelligence (ранее Azure Form Recognizer) и Azure OpenAI Service, который позволит «общаться» со документами в чате, создавать из них увлекательный контент и использовать возможности моделей Azure OpenAI для имеющихся данных. Беспрепятственное взаимодействие с документами на естественном языке позволит легко находить ответы и получать ценную информацию. Сервис поддерживает несколько типов документов, оптическое распознавание символов (с исправлением ошибок на основе ИИ) и извлечение информации.

Также обеспечивается конфиденциальность информации, то есть пользователь может быть уверенными, что его данные останутся изолированными и под его контролем. Кроме того, сервис обеспечивает масштабируемость: документы могут быть как небольшими, так и огромными, а библиотека документов может быть корпоративного масштаба. Microsoft предложила ознакомиться с новыми решениями на GitHub.

Кроме того, было объявлено о предстоящем выходе системы распознавания речи OpenAI Whisper. Модель OpenAI Whisper обеспечивает точную транскрипцию человеческой речи на 57 языках и перевод на английский язык. Она также создаёт стенограммы с улучшенной читабельностью. В числе преимуществ использования модели OpenAI Whisper в Azure компания назвала безопасность корпоративного уровня, элементы управления конфиденциальностью и возможности обработки данных, которые позволяют создавать настраиваемые решения в соответствии с конкретными потребностями бизнеса.

Microsoft объявила о переименовании службы Azure Active Directory в Entra ID. Таким образом, сервис с более чем 10-летней историй и 720 тыс. бизнес-клиентами теперь входит в появившееся год назад семейство продутов Entra, которое вскоре пополнится ещё двумя сервисами. Microsoft объясняет такой шаг желанием унифицировать своё портфолио решений для идентификации и контроля доступа.

Впрочем, в данном случае речь идёт только о ребрендинге Azure AD — все сопутствующие сервисы получат приставку Microsoft Entra, но никакие настройки и конфигурации меняться не будут, так что вмешательство администраторов не потребуется. Обновление будет развёрнуто постепенно до конца текущего года.

Изображение: Microsoft

Что касается семейства Microsfot Entra, то к уже имеющимся сервисам Entra Permissions Management, Entra Verified ID, Entra ID Governance и Entra Workload ID будут добавлены Entra Internet Access и Entra Private Access. Первый, как видно из названия, призван управлять доступом в глобальную Сеть различных приложений и ресурсов, включая Microsoft 365. Второй же относится к ZTNA-службам для контроля доступа к приватным приложениям и ресурсам.

Документы, обнародованные антимонопольными органами США, по сообщению ресурса The Information, впервые раскрывают объём бизнеса Microsoft Azure. Как оказалось, по размеру годовой выручки облако Microsoft более чем в два раза уступает Amazon Web Services (AWS), что может стать разочарованием для инвесторов.

Корпорация Microsoft традиционно не раскрывает точные финансовые показатели деятельности Azure. Вместо этого результаты приводятся в рамках структуры Intelligent Cloud, в которую также включены Enterprise Services, Windows Server и SQL Server. В частности, по итогам I квартала 2023 года выручка Intelligent Cloud составила $22,08 млрд, что больше прошлогоднего результата на 16 %.

Источник изображения: Microsoft

Как теперь стало известно, за годовой период, завершившийся в июне 2022-го, выручка Azure составила приблизительно $34 млрд. Для сравнения: у AWS результат за аналогичный период достиг $72 млрд. По сути, это означает, что доля Azure на мировом рынке инфраструктур облачных вычислений несколько меньше, чем предполагало большинство аналитических фирм.

Более того, до сих пор нет ясности по поводу того, был ли бизнес Azure прибыльным в течение рассматриваемого года. Аналитик Constellation Research Хольгер Мюллер (Holger Mueller) призывает Microsoft рассмотреть возможность окончательного раскрытия доходов Azure. Это повысит прозрачность ведения операций и поможет развеять сомнения инвесторов. Редмондский гигант ситуацию никак не комментирует.